SMA Muhammadiyah 3 Jakarta berdiri mulai tanggal 11 Maret 1957 sebagai hasil usaha perintis di dalam lingkungan Muhammadiyah cabang Kebayoran Baru. Hingga saat ini SMA Muhammadiyah 3 menempati lokasi di Jl. Limau I, III Kebayoran Baru Jakarta Selatan yang dibangun kembali dari tahun 1985-1991 menjadi bangunan 3 lantai.

Akhir-akhir ini isu desentralisasi, atau pengelolaan pendidikan berbasis sekolah (school based management) merupakan tema sentral dalam reformasi pendidikan. Pengertian SBM tersebut untuk kemudian diterapkan di kalangan Pendidikan Dasar dan Menengah.

Dalam rangka usaha meningkatkan mutu pendidikan sekolah ini menggunakan pendekatan Manajemen Peningkatan Mutu Berbasis Sekolah. Pendidikan ini melibatkan orangtua, siswa, alumni dan tokoh pendidikan sebagai mitra konsultasi.

Acuan SMA ini adalah sekolah efektif yang menitikberatkan pada perbaikan proses pendidikan untuk memperoleh hasil pendidikan yang lebih baik.

Tujuan Pendidikan Muhammadiyah adalah terwujudnya manusia Muslim yang berakhlak mulia, cakap, percaya kepada diri sendiri, berguna bagi masyarakat dan negara. Sasaran/targetnya adalah "Hari ini lebih baik dari hari kemarin, hari esok lebih baik dari hari ini dalam belajar, beramal dan bekerja."Visinya adalah mengembangkan potensi peserta didik secara optimal dan seimbang antara iman, ilmu dan amal yang tangguh, Amar ma'ruf nahi munkar, beramal ilmiah berilmu amaliah. Misinya adalahmenciptakan suasana dan proses KBM yang kondusif dan efektif, peningkatan mutu penyelenggaraan kegiatan ISMUBA AL Islam, Kemuhammadiyahan dan Bahasa Arab, melaksanakan managemen transparansi dan partisipatif, peningkatan mutu pendidikan berbasis sekolah dan peningkatan IMTAQ, IPTEK dan AMAL.